Trong tiểu thuyết Tam Quốc diễn nghĩa của La Quán Trung, Tư Mã Sư xuất hiện bên cạnh Tư Mã Ý khi cùng chống những cuộc tấn công của Gia Cát Lượng tại biên giới phía tây thời Ngụy Minh Đế.

Ông cũng từng dự cuộc chiến chống lại Khương Duy nước Thục Hán ở biên giới phía tây. Sau đó, Tư Mã Sư dẹp Vô Khâu Kiệm trong lúc bị lên u bướu mắt. Khi Văn Ương con Văn Khâm đánh vào trại, ông bị bật nổ một con ngươi, phải trùm kín chăn có thủ hạ hộ tống.

Sau khi dẹp loạn xong, bệnh ông càng nặng, bật nổ nốt con ngươi còn lại và qua đời.